El COVID-19 generalizará el uso de la IA, afirma el Vicepresidente y Chief Analytics Officer de FICO, pero se requerirá un mayor control

por Scott Zoldi, 21 de enero de 2021.

El deseo más ferviente de los tecnólogos es “cruzar el abismo”, es decir, que sus inventos reduzcan la brecha entre una adopción temprana y una adopción generalizada. El año pasado predije que la inteligencia artificial (IA) crecería, con un mayor desarrollo de infraestructura en torno a la IA Responsable, la promoción de la IA y el gobierno de la IA. Estos y otros logros se han alcanzado, lo que ha permitido que la IA empresarial avance hacia la etapa de “adopción temprana”, como lo define el autor de Chasm, Geoffrey Moore.

Pienso que en el 2021 la IA cruzará el abismo para convertirse en una tecnología de negocio confiable, segura y generalizada —aunque quizá no por la manera o las razones que podrían esperarse—.

El COVID es la madre de la madurez de la IA

Al igual que todo lo demás en el 2020, el COVID-19 afectó la IA. La demanda por IA, datos y herramientas digitales se ha disparado debido a la presión inesperada y prolongada que la pandemia está ejerciendo en muchas empresas. Este tema ha sido el principal en “Building AI-Driven Enterprises in a Disrupted Environment” (Construir empresas centradas en IA en un ambiente disruptivo), un informe basado en un estudio realizado por Corinium y patrocinado por FICO. Se han entrevistado más de 100 Chief Analytics and Data Officer para realizar el informe con el fin de conocer la manera en que las organizaciones están desarrollando e implementando capacidades de IA. A continuación, mostramos algunos hallazgos clave que sientan las bases para mis predicciones del 2021:

• La incertidumbre provocada por la pandemia ha obligado a que muchas organizaciones adopten una estrategia más comprometida y disciplinada para convertirse en empresas centradas en IA. El 57 % de los directores de analítica y datos entrevistados afirman que el COVID-19 ha incrementado la demanda por IA, productos digitales y herramientas.
• Sin embargo, más del 93 % de los participantes comentaron que los aspectos éticos representan un obstáculo para la adopción de IA dentro de sus organizaciones. Como lo señala el informe: “Asegurar que la IA se utilice de forma responsable y ética en el contexto empresarial es una tarea gigantesca, pero esencial”. Esto es a pesar de que la mitad de los participantes en la encuesta afirman contar con un sólido modelo de gobierno y rigurosas reglas de gestión para promover el uso ético de la IA.
• Por lo tanto, se requiere un mayor esfuerzo para hacer cumplir y auditar el uso ético de la IA, ya que el 67 % de los directores de IA no supervisan sus modelos para asegurar el uso apropiado y ético de la IA.

Con base en la demanda urgente de IA generada por el COVID y del enfoque mundial en el uso responsable y ético de la IA, a continuación, detallo más predicciones de lo que sucederá en el 2021 para que la IA “cruce el abismo” y se convierta en una tecnología de negocio confiable y generalizada.

Predicción 1: La IA se gobernará a nivel algorítmico

A lo largo del 2020, la mayoría de las guías que he leído sobre cómo gestionar el desarrollo de la IA conforme a los estándares corporativos contienen recomendaciones amorfas, tales como crear un Comité de Ética de IA y establecer un acuerdo general de “no hacer daño”. Este concepto trivial de la ética no es muy eficaz para los laboratorios de ciencia de datos, pues es justamente ahí donde se desarrollan los algoritmos de IA. He aquí una lista de algunos errores garrafales de la IA en el 2020, pese a sus buenas intenciones.

En el 2021, las organizaciones dejarán de preocuparse por la IA y abordarán el tema de frente. Presionadas para crear algoritmos de calidad en producción, las empresas se basarán en estilos de vida para desarrollar modelos de IA responsable que puedan auditarse, supervisarse y gobernarse. Predigo que la IA se gobernará a través de una infraestructura de blockchain para desarrollo de modelos, lo cual asegurará que las normas explicables e imparciales de desarrollo de modelos se apliquen consistentemente a nivel algorítmico en toda la organización, sin la oportunidad de que intervengan los científicos de datos ni la posibilidad de otras interpretaciones.

Predicción 2: La IA como servicio despegará

En la última década hemos observado, en áreas como la interconexión y almacenamiento, la tendencia de disgregar el software de su hardware propietario y vender el software por separado. En el 2021 predigo que una disgregación similar comenzará en algunas aplicaciones de software de IA, y que los algoritmos y modelos se extraerán y venderán por separado como microservicios analíticos. Esos microservicios son el inicio de una industria más grande: la IA como Servicio (AIaaS).

Por definición, los microservicios analíticos ofrecen funcionalidad concisa, con interfaces de programación de aplicaciones (API) bien definidas que se integran fácilmente en las aplicaciones de negocio, en un motor de ejecución y, desde luego, en:

• API rigurosamente aplicada
• Monitoreo de la calidad de los datos
• Documentación sobre gobierno
• Componente explicativo

Los microservicios atienden varias cuestiones importantes, ya que:

• Permiten flexibilidad en el diseño de soluciones, particularmente porque la IA en cada microservicio independiente puede ser bastante compleja y requerir supervisión, mantenimiento y reentrenamiento.
• Aceleran la producción de capacidades de la IA explicable y, por consiguiente, su uso ético.
• Abstraen a las personas de la complejidad de la ciencia de datos que se encuentra en el centro de la toma de decisiones y permiten a los expertos desarrollar aplicaciones de IA con “seguridad integrada desde el diseño” y con controles para su uso responsable.
• Aceleran el consumo, evaluación y uso de microservicios de aprendizaje automático para dominios específicos, lo que permite responder rápidamente a la acelerada digitalización de nuestro mundo.

Por último, los microservicios de aprendizaje automático para dominios específicos proporcionan acceso instantáneo a la tecnología de aprendizaje automático previamente diseñada para un problema específico. En vez de optar por desarrollar una solución de aprendizaje automático propietaria con herramientas de código abierto o por utilizar una aplicación genérica, los microservicios para dominios específicos acelerarán la producción de tecnologías confiables y sólidas para la toma de decisiones.

Predicción 3: Los consumidores gestionarán activamente sus datos

Con el control inminente sobre sus propios datos, como parte del movimiento de banca abierta, en el 2021 los consumidores otorgarán más consentimiento para el uso específico, prescrito y limitado de sus datos transaccionales. En vista de los cambios acelerados que hemos observado en el gasto de los consumidores durante la pandemia, la contribución de datos adicionales (tales como el pago puntual de cuentas o el ingreso/retiro de fondos) será más importante que nunca para la detección del fraude, la gestión del riesgo y el marketing. Las tecnologías de IA y aprendizaje automático serán críticas para brindar experiencias personalizadas, lo que requerirá indicios rápidos y en tiempo real de la etapa en la que se encuentra el cliente en su proceso financiero.

Por lo tanto, en un ambiente posterior a la pandemia, contar con datos transaccionales recientes y frecuentes será de suma importancia. Mi predicción es que en el 2021 observaremos un nivel más alto de conocimiento, consentimiento y participación de los clientes en el proceso de toma decisiones relacionado con los bienes y servicios.

Predicción 4: La seguridad integrada desde el diseño ayudará a combatir los ataques de IA

Escribí por primera vez sobre la IA defensiva en el 2017, y en esta economía mundial desafiante, más delincuentes buscan hacer dinero fácil mediante el desarrollo de sistemas de IA defensiva diseñados para manipular los algoritmos legítimos.

Por ejemplo, los delincuentes saben que los modelos antifraude con tarjeta de crédito son muy eficaces para detectar el robo de cantidades grandes de dinero, de modo que quizá se pregunten cuál es la manera más efectiva de robar cantidades más pequeñas. Un sistema de IA defensiva atacaría un modelo antifraude a través de múltiples intentos de transacciones, de manera repetida y con diferentes cantidades de dinero, para determinar el orden y la distribución de las transacciones con menos probabilidades de emitir una alerta de fraude. Con esta información, un delincuente puede automatizar su IA para extraer muchas más ganancias ilícitas de las tarjetas robadas.

Con el fin de combatir la IA defensiva, los científicos de datos están adoptando la “seguridad integrada desde el diseño” —una medida proactiva, pragmática y estratégica que considera el riesgo desde el principio y no como un añadido posterior— para desarrollar modelos capaces de “autoexaminarse” constantemente para determinar si están bajo ataque. Mientras que he presentado una solicitud de patente para detectar la IA defensiva, lo cual permitiría calificar las transacciones en cuanto a su capacidad de detectar fraude, mi predicción es que en el 2021 se requerirá una IA capaz de autoexaminarse en busca de IA defensiva para producir modelos de IA en otras áreas además de la delincuencia financiera.

Predicción 5: La IA honesta nos permitirá saber si debemos utilizar o no un modelo

El uso responsable de IA incluye reconocer que un modelo es ineficaz o que podría ser incluso dañino. A medida que las organizaciones avanzan hacia la ejecución de modelos especializados (mi Predicción 2) dentro de los ambientes cada vez más regulados, elegirán arquitecturas de modelos de aprendizaje automático específicos para cada problema. Optarán por una tecnología de IA que sea “explicativa primero, predictiva segundo”. Esta capacidad es fundamental para identificar las funciones que generan los resultados del modelo y para determinar si el modelo no debe utilizarse para tomar decisiones sobre ciertos grupos de personas o incluso ninguno, ya que esas funciones latentes pueden transformarse en combinaciones de valores en las cuales el modelo no se entrenó, lo que podría causar imparcialidad.

En el 2021, mi predicción es que la IA honesta será una fuerza moderadora esencial entre la demanda por una IA lista para producción y las presiones regulatorias para demostrar prácticas justas, seguras e imparciales en la toma de decisiones.

Y eso es todo. Mientras que el COVID-19 impulsó la demanda por IA y nos impuso retos que jamás soñamos enfrentar, espero que el 2021 les traiga felicidad, salud y una IA generalizada que cruce el abismo. Síganme en @ScottZoldi y echen un vistazo a mis artículos pasados acerca de las predicciones sobre IA para 2020, 2019, 2018 y 2017.

¡Gracias!